Trong cuộc Vạn lý Trường chinh, ban đầu Hứa được giao nhiệm vụ chỉ huy Hồng quân tấn công quân Hồ Tông Nam để mở đường lên phía Bắc. Tuy nhiên, lúc bấy giờ mâu thuẫn Trương Quốc Đào và Mao Trạch Đông phát sinh đến đỉnh điểm, dẫn đến việc Hồng quân chia tách thành 2 bộ phận: bộ phận do Mao lãnh đạo (nòng cốt là Phương diện quân số 1) tiếp tục tiến lên phía Bắc để bảo tồn lực lượng và bộ phận theo chỉ đạo của Trương (nòng cốt là Phương diện quân số 4) trở về Nam thành lập căn cứ địa Xuyên Khang.[4][5] Hứa cùng với thượng cấp Từ Hướng Tiền, vốn là thuộc hạ của Trương Quốc Đào, vì vậy dẫn quân trở về Nam. Sai lầm chiến lược của Trương Quốc Đào dẫn đến việc Phương diện quân số 4 bị quân Quốc dân Đảng vây đánh thiệt hại nặng nề, chỉ một bộ phận nhỏ thoát được về đến Diên An.[4] Hứa sau đó bị đưa ra khỏi vị trí chỉ huy, được đưa đi học ở Đại học Hồng quân Diên An.

Cuối tháng 3 năm 1937, Hội nghị Bộ Chính trị mở rộng phê phán quyết định sai lầm của Trương Quốc Đào, từ đó loại trừ những ảnh hưởng còn lại trong Đảng của Trương.[4][6] Ngoài ra, Hội nghị cũng phê phán các bộ hạ cũ của Trương gồm Hứa Thế Hữu, Hồng Học Trí, Lưu Thế Mô, Chu Đức Sùng, Chiêm Đạo Khuê, Vương Kiến An; trong đó kịch liệt thành 3 điều:[7][8]

1. Phương diện quân số 4 là thổ phỉ
2. Cán bộ Phương diện quân số 4 là quân phiệt
3. Cán bộ Phương diện quân số 4 bị Trương Quốc Đào mua chuộc

Những người ủng hộ Mao Trạch Đông kết tội Trương Quốc Đào "phản bội", đồng thời kết tội Hứa Thế Hữu "theo chủ nghĩa Trotsky", là "thổ phỉ", "phản kháng trung ương". Nhiều các bộ chiến sĩ của Phương diện quân số 4 cũng bị chụp mũ "phản bội", "thổ phỉ". Khi nghe được tin, Hứa uất ức ngã bệnh, phải vào bệnh viện. Lưu Thế Mô dùng súng tự sát, nhưng không chết mà chỉ bị trọng thương.[7][8]

Sau khi khỏi bệnh, Hứa tìm cách liên lạc với những bộ hạ cũ của Trương Quốc Đào, dự định trốn khỏi Diên An về lại Tây Khang, hợp với bộ hạ cũ là Lưu Tử Tài để tập hợp lực lượng đánh du kích chiến. Số bộ hạ cũ của Trương Quốc Đào đồng ý đi theo Hứa tập hợp được khoảng 30 người. Tuy nhiên, sự việc sau đó bị Chính ủy Quân đoàn IV là Vương Kiến An tiết lộ. Hứa cùng các đồng chí bị bắt, bị kết án trong vụ án "Tập đoàn phản cách mạng Hứa Thế Hữu".[3][7][8]

Trong vụ án này, lẽ ra Hứa và các đồng chí phải bị xử tử, nhưng do Mao Trạch Đông nhận định Hứa là người trung hậu, có tài dùng binh, vì vậy nên xử trí khoan dung, thể hiện tinh thần đoàn kết trong nội bộ Đảng.[7][8] Do ân tình này, về sau Hứa nhận sai và tuyên bố trung thành với Mao Trạch Đông. Từ đó, Hứa trở thành thân tín của Mao.[7][9] Tuy nhiên, do việc Vương Kiến An tiết lộ sự việc, nên Hứa trở nên thù ghét Vương. Mãi đến thời kỳ Quốc-Cộng nội chiến lần thứ 2, do Mao Trạch Đông trực tiếp đứng ra khuyên giải mới giảm được mối bất hòa.[7][8]

Trong thời kỳ Quốc-Cộng hợp tác lần thứ 2 để kháng Nhật, Hứa lần lượt giữ các chức vụ Phó lữ trưởng Lữ đoàn 386, Sư đoàn 129 Bát lộ quân, Lữ trưởng Lữ đoàn 3, Tung đội Sơn Đông Bát lộ quân, Tham mưu trưởng Tung đội Sơn Đông, Tư lệnh Quân khu Giao Đông.

Thời kỳ Quốc-Cộng nội chiến lần thứ hai, Hứa lần lượt giữ chức Tư lệnh Tung đội số 9 thuộc Dã chiến quân Hoa Đông, Tư lệnh Binh đoàn Sơn Đông.